AnsprechpersonProjektbeschreibungProjektposterPublikation

Ansprechperson: Prof. Dr. Martin Leucker

Projektbeschreibung

Die regulatorische Plattform (AP230) nimmt eine zentrale Rolle in einem umfassenden Projekt ein, das sich auf die Entwicklung und Zulassung adaptiver KI-basierter Medizinsysteme fokussiert. Ihre Mission besteht darin, die Anwendungsprojekte von der Konzeption bis zur Zulassung zu begleiten und dabei sicherzustellen, dass sie den regulatorischen Anforderungen entsprechen.

Projektziel:

Das vorrangige Ziel der regulatorischen Plattform ist es, einen klaren und effektiven Weg zur Zulassung von adaptiven KI-Systemen in der Medizin zu schaffen. Dies wird durch die Erarbeitung einer umfassenden "Zulassungsguidance" erreicht, die als Leitfaden für verschiedene Arten von KI-Anwendungen und Szenarien dienen soll.

Herausforderungen:

Eine der zentralen Herausforderungen, mit denen wir in der regulatorischen Plattform konfrontiert sind, ist die Tatsache, dass die bestehenden regulatorischen Rahmenbedingungen, insbesondere die Medical Device Regulation (MDR) in Europa, nicht ausreichend auf KI-gestützte Medizinprodukte eingehen. Dies stellt Medizinproduktehersteller vor erhebliche Unsicherheiten, da es keine spezifischen Normen oder Richtlinien gibt, auf die sie zurückgreifen können, um den Vermutungscharakter für die Konformität ihrer Produkte sicherzustellen.

Die Situation wird jedoch durch die Initiative der FDA, die das "Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD)" vorgeschlagen hat, erheblich erleichtert. Dieses Dokument bietet eine Diskussionsgrundlage und einen ersten Schritt hin zu klareren Richtlinien für KI-gestützte Medizinprodukte in den USA. Es unterstreicht die Dringlichkeit, regulatorische Rahmenbedingungen für diese innovativen Technologien zu schaffen und verdeutlicht die Notwendigkeit eines koordinierten internationalen Ansatzes zur Bewältigung dieser Herausforderungen.

Lösungsansatz:

Erfassen des "State of the Art"

Um einen umfassenden Überblick über die aktuelle regulatorische Lage zu gewinnen, haben wir zunächst eine umfassende Untersuchung zur Ist-Situation durchgeführt. Diese Untersuchung zielte darauf ab, die bestehenden regulatorischen Rahmenbedingungen im Gesundheitswesen in Bezug auf künstliche Intelligenz zu erfassen. Dabei haben wir insbesondere die Anforderungen und Unsicherheiten in Bezug auf KI-gestützte Medizinprodukte im Europäischen Wirtschaftsraum unter der MDR aber auch für den US Mark unter der FDA analysiert und in "Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen" im Buch Künstliche Intelligenz im Gesundheitswesen von M. Pfannstiel veröffentlicht.  

Um sicherzustellen, dass medizinische Maschinenlernsysteme die grundlegenden Prinzipien wie Wohltätigkeit, Respekt vor der menschlichen Autonomie, Vermeidung von Schäden, Gerechtigkeit, Privatsphäre und Transparenz respektieren, müssen sie verantwortungsvoll entwickelt werden. Obwohl viele ethische Grundsätze auf höchster Ebene zu diesem Zweck formuliert wurden, fehlen derzeit jedoch technische Leitlinien, die die praktischen Konsequenzen für medizinisches Maschinenlernen erklären. Ebenso gibt es erhebliche Unsicherheit über die genauen regulatorischen Anforderungen, die an medizinische Maschinenlernsysteme gestellt werden. In Kooperation mit der Responsible Innovation Plattform wurde dazu eine Übersicht erstellt. Das Paper "Responsible and Regulatory Conform Machine Learning for Medicine: A Survey of Technical Challenges and Solutions" bietet einen Einblick in die technischen und Verfahrensherausforderungen bei der verantwortungsvollen Entwicklung von medizinischen Maschinenlernsystemen und deren Konformität mit bestehenden Vorschriften sowie mögliche Lösungsansätze zur Bewältigung dieser Herausforderungen.

Einer der Lösungsansätze innerhalb der Regulatorischen Plattform war die Entwicklung eines spezifischen Ansatz für die FDA, welcher im Rahmen des Projekts PASBADIA erprobt wurde. Dieser Ansatz berücksichtigt die einzigartigen Anforderungen und Erwartungen der FDA in Bezug auf KI-gestützte Medizinprodukte. Die Ergebnisse und Erkenntnisse aus diesem Prototyp wurden dann innerhalb des Konsortiums KI-SIGS in den Projekten AP310 (Homecare Augendiagnostik) und AP340 (KI für radiologische Bildgebung in der Notfall- und Intensivmedizin) weiter angewendet und verfeinert. So wurde dieser Prototyp nicht nur konzipiert, sondern auch in der Praxis getestet, um seine Wirksamkeit zu überprüfen. Der Prototyp hat sich im Laufe der Zeit zu einem umfassenden Prozess entwickelt, der die regulatorischen Anforderungen der FDA adressiert und gleichzeitig Raum für Innovation und Fortschritt in der KI im Gesundheitswesen bietet. Dieser Prozess wird derzeit für ein wissenschaftliches Paper zusammengefasst. Dieses Paper wird nicht nur den entwickelten Prozess detailliert beschreiben, sondern auch die praktischen Erfahrungen und Ergebnisse der Anwendung in den genannten Projekten zusammenfassen. Es wird dazu beitragen, das Verständnis für die regulatorischen Aspekte von KI-gestützten Medizinprodukten zu vertiefen und bewährte Praktiken in diesem Bereich zu etablieren.

Normungsarbeiten

Ein weiterer wichtiger Beitrag der Regulatorischen Plattform bestand darin, an der DEUTSCHEN NORMUNGSROADMAP KÜNSTLICHE INTELLIGENZ, Ausgabe 2 des DIN, mitzuwirken. Die Regulatorische Plattform spielte eine maßgebliche Rolle bei der Gestaltung des dritten Anwendungsbeispiels, das sich mit der Segmentierung und Klassifikation von Gehirnarealen (einschließlich Liquor) und deren Volumenbestimmung im Kontext der Medizin befasste.

Die interdisziplinäre und bereichsübergreifende Arbeit an diesem Anwendungsbeispiel war äußerst lehrreich und ermöglichte es, neue Verbindungen und Erkenntnisse zu gewinnen. Die Regulatorische Plattform trug dazu bei, die regulatorischen Aspekte im Bereich der KI-gestützten Medizinprodukte in den zukünftigen Normungsprozess einzubringen und sicherzustellen, dass relevanten Anforderungen in zukünftigen Standards berücksichtigt werden.

Auch nach dem offiziellen ende von KI-SIGS, soll die Arbeiten zur Gestaltung einer Norm fortgesetzt werden. Dies unterstreicht das Engagement der Regulatorischen Plattform für die Schaffung von klaren und einheitlichen Standards im Bereich der adaptiven KI-basierten Medizinsysteme, um deren Entwicklung und Zulassung zu erleichtern und sicherzustellen, dass sie den höchsten Qualitäts- und Sicherheitsanforderungen entsprechen.

Arbeitsweise:

Schaffung von Grundlagen

Um im Konsortium ein solides Grundwissen für den Zulassungsprozess aufzubauen und ein gemeinsames Verständnis zu schaffen, wurden Schulungsangebote vom Johner Institut angeboten. Diese Schulungen dienten dazu, die Mitglieder des Konsortiums mit den grundlegenden Konzepten und Anforderungen im Bereich der Zulassung von Medizinprodukten vertraut zu machen.

Die Schulungsangebote deckten eine breite Palette von Themen ab, darunter regulatorische Anforderungen, Qualitätsmanagement, Risikomanagement und spezifische Anforderungen im Zusammenhang mit KI-gestützten Medizinprodukten. Sie wurden von erfahrenen Fachleuten des Johner Instituts durchgeführt, die über umfangreiches Wissen und Erfahrung im Bereich der Medizinproduktezulassung verfügten.

Durch diese Schulungsangebote konnten die Mitglieder des Konsortiums ein gemeinsames Verständnis für die regulatorischen Herausforderungen und Anforderungen entwickeln, die im Kontext von KI-gestützten Medizinprodukten relevant sind. Dies stellte sicher, dass das Konsortium auf einer soliden Wissensbasis aufbaute und in der Lage war, effektiv an der Entwicklung von Lösungsansätzen und Richtlinien für die Zulassung von adaptiven KI-basierten Medizinsystemen zu arbeiten.

Verzahnung von Anwendungsprojekten und Plattformprojekten 

Die Anwendungsprojekte innerhalb des Konsortiums dienten als anschauliche Beispiele dafür, wie die Interaktion mit der Regulatorischen Plattform funktioniert hat. Jedes dieser Projekte hatte die Möglichkeit, Fragen und Unsicherheiten an die Regulatorische Plattform zu richten, die im Kontext ihrer spezifischen Herausforderungen und Anforderungen im Bereich der KI-gestützten Medizinprodukte standen. Die Regulatorische Plattform bemühte sich, diese Fragen detailliert zu beantworten und Lösungsansätze bereitzustellen, die auf fundiertem regulatorischem Wissen und Erfahrung basierten. Hier sind einige Beispiele:

• AP310 (Homecare Augendiagnostik): Dieses Projekt beschäftigte sich mit dem Umgang von Cloudanwendungen und patientenbezogenen Daten. Hier entstand in enger Zusammenarbeit mit der Regulatorischen Plattform das Paper "A Case Study on Data Protection for a Cloud- and AI-based Homecare Medical Device."

• AP340 (KI für radiologische Bildgebung in der Notfall- und Intensivmedizin): In diesem Projekt standen Fragen zum Risikomanagement sowie zum Fragenkatalog "Künstliche Intelligenz bei Medizinprodukten" der IG-NB im Fokus. Auch Aspekte der Post-Market Clinical Follow-up (PMCF) wurden behandelt und von der Regulatorischen Plattform unterstützt.

• AP350 (Intelligenter Ultraschall-Aspirator): Dieses Projekt befasste sich ebenfalls mit dem Fragenkatalog "Künstliche Intelligenz bei Medizinprodukten" der IG-NB. Hier wurden spezifische Fragen zur Integration von KI in ein medizinisches Gerät gestellt, die von der Regulatorischen Plattform aufgegriffen wurden.

• AP360 (VIKOOB): In diesem Projekt ging es um den Austausch und die Vermittlung von individualisierter Beratung im Kontext adaptiver KI-basierter Medizinsysteme. Die Regulatorische Plattform bot speziell auf die Bedürfnisse von AP360 zugeschnittene Beratung an und unterstützte die Entwicklung und Umsetzung von Lösungsansätzen.

Die Interaktion zwischen den Anwendungsprojekten und der Regulatorischen Plattform war von entscheidender Bedeutung, um sicherzustellen, dass die Lösungsansätze in der Praxis relevant und wirksam waren. Durch den direkten Dialog und die Zusammenarbeit konnte eine enge Verknüpfung zwischen den technischen Herausforderungen und den regulatorischen Anforderungen hergestellt werden, um die Entwicklung von adaptiven KI-basierten Medizinsystemen zu erleichtern.

In der Summe ist die regulatorische Plattform ein Schlüsselinstrument, um die Entwicklung und Zulassung von adaptiven KI-Systemen in der Medizin voranzutreiben. Sie stellt sicher, dass diese Systeme den regulatorischen Vorgaben gerecht werden und gleichzeitig Innovation und Fortschritt in der medizinischen KI ermöglichen.

Projektposter

Publikationen

L Pechmann, M Mildner, T Suthau, M Leucker - "Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen" in Pfannstiel, Künstliche Intelligenz im Gesundheitswesen, pages 175 - 198, 2022

E Petersen, Y Potdevin, E Mohammadi, S Zidowitz, S Breyer, D Nowotka, S Henn, L Pechmann, M Leucker, P Rostalski, C Herzog - “Responsible and Regulatory Conform Machine Learning for Medicine: A Survey of Technical Challenges and Solutions” in IEEE Access 2021

P Bende, O Vovk, D Caraveo, L Pechmann and M Leucker - “A Case Study on Data Protection for a Cloud- and AI-based Homecare Medical Device” auf der HEDA 2022

L Pechmann, S Zidowitz, „Zweite Ausgabe der Deutschen Normungsroadmap Künstliche Intelligenz“ für W Wahlster, C Winterhalter, vom Deutsches Institut für Normung e.V. -DIN-, Berlin, pages 238 - 240, 2022 

P Bende, O Vovk, D Caraveo, L Pechmann and M Leucker - “A Case Study on Data Protection for a Cloud- and AI-based Homecare Medical Device” Extended Version auf der ToPNoC 2023 (final Version eingereicht)